LongCrafter: Towards Diverse Long-Context Understanding via Evidence-Graph-Guided Instruction Synthesis
LongCrafter:通过证据图引导的指令合成实现多样化长上下文理解
🧭 长上下文指令合成 · 训练数据增强
University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences
提出证据图引导的长上下文指令合成框架,覆盖32种任务,训练数据显著提升长文本理解并缓解迷失中间问题
📌 工作参考价值(4 点)
- 分层任务分类(局部/浅层 vs. 全局/深层)可指导电商场景中长文本训练数据的构造,例如用户长评论总结或长商品描述理解任务。
- 证据图建模跨段落依赖并严格基于证据生成问答对,能保证指令的忠实度,可借鉴到可信长上下文数据合成,如从多段商品介绍中生成属性问答。
- 合成数据覆盖不同难度且证据位置多样化,能有效缓解模型在长序列中的“迷失中间”问题,适合训练需要从长用户行为序列中精确定位的推荐模型。
- 证据跨度定位提升了模型的可解释性和鲁棒性,可用于构建需要从长文档中提取关键信息的Agent系统。